\section{引言}

\subsection{会议背景与意义}

% from: hzw

本综述覆盖以下会议：\textit{ICPP}（并行处理国际会议）。这些会议在联邦学习等方向上有较多交叉点，但研究重点各有侧重。
\textit{ICPP}是计算机科学领域顶级的并行处理与分布式系统会议之一，吸引了大量关于高性能计算、分布式系统以及相关优化技术的研究成果。
近年来，ICPP在联邦学习领域的研究涉及算法创新、性能优化、异构模型支持和隐私保护等方面，并着重于研究提升联邦学习在异构设备上的效率、减少通信成本、增强模型的个性化能力以及提高隐私保护的可靠性。
这些研究方向不仅在并行计算的算法设计上提供了新的思路，也为硬件、系统架构以及应用层提供了创新的解决方案。

% from: wl

本综述覆盖以下会议:\textit{DAC}（设计自动化）、\textit{ICDCS}（国际分布式计算系统）、\textit{EuroSys}（欧洲计算机系统会议）、\textit{SC}（超级计算大会）、\textit{MICRO}（国际微架构研讨会）。这些会议在并行编程、硬件优化、分布式系统等方向上有较多交叉点，但研究重点各有侧重，DAC是电子设计自动化领域的顶级会议，重点关注如何利用计算机辅助设计工具和方法来提高电子系统和集成电路的设计效率和质量。ICDCS是分布式计算领域的顶级会议，专注于研究分布式计算系统的设计、分析、实现及其应用。EuroSys 是计算机系统领域的重要学术会议，关注计算机系统的设计、实现、性能和优化。

% from: lyh
本综述覆盖以下会议： \textit{RTAS}（IEEE 实时与嵌入式技术及应用研讨会）、\textit{ICML}（国际机器学习大会）、\textit{ICLR}（国际深度学习研究会议）、\textit{DAC}（设计自动化会议）。这些会议在移动设备等资源受限型部署神经网络进行训练推理相关研究方向上存在诸多交叉点，但各自研究重点有所不同，分别是：
\textit{RTAS}专注于实时与嵌入式技术及应用，在移动设备等资源受限环境下，重点研究如何将神经网络的训练推理与实时系统的严格时间约束、嵌入式设备的有限资源相结合。
\textit{ICML}作为机器学习领域的重要会议，聚焦于机器学习算法的创新与发展，着重研究适用于此类设备的新型神经网络训练算法，如如何改进优化算法以减少训练时间和内存消耗，以及如何利用迁移学习、元学习等技术，在少量数据的情况下实现高效的模型训练，提升模型在移动设备上的泛化能力和性能表现。
\textit{ICLR}主要关注学习表示的理论和实践，重点在于探索更高效的神经网络架构和表示学习方法，以降低模型复杂度，减少计算资源需求，同时保持甚至提升模型的准确性。
\textit{DAC}围绕设计自动化展开研究，侧重于从硬件设计和系统层面进行优化，包括设计专门针对神经网络计算的低功耗硬件架构、开发高效的硬件加速模块，以及优化硬件与软件之间的协同设计，提高移动设备在运行神经网络训练推理任务时的整体性能和能效比。

% from: dzy
本综述覆盖以下期刊或会议：\textit{TACO}（ACM Transactions on Architecture and Code Optimization）、\textit{ASPLOS}（International Conference on Architectural Support for Programming Languages and Operating Systems）、\textit{MICRO}（IEEE/ACM International Symposium on Microarchitecture）、\textit{TACD}（IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems）、\textit{NIPS}（Conference on Neural Information Processing Systems）。其中 \textit{TACO} 和 \textit{ASPLOS} 关注通过硬件数据流的优化提升网络的推理效率，减少资源开销；\textit{MICRO} 和 \textit{TCAD} 关注对模型进行剪枝和压缩，使得现有的模型能够应用于硬件资源受限的场景；\textit{NIPS} 则关注适应资源受限场景的网络模型设计。

\subsection{综述目标}

% from: lyh
本综述的目标是：
\begin{itemize}
    \item 总结跨会议的研究主题与贡献。
    \item 比较会议间的差异与交叉点。
    \item 提炼研究趋势与挑战，提出未来研究建议。
\end{itemize}

\subsection{综述范围}

% from: hzw

% from: wl

% from: lyh dzy
本文涵盖例如\textit{ICPP}、\textit{DAC}、\textit{ICDCS}和\textit{EuroSys}、\textit{RTAS}、\textit{ICML}、\textit{ICLR}和\textit{TACO}、\textit{TCAD}、\textit{ASPLOS}、\textit{MICRO}、\textit{NIPS} 在近三年的研究论文，按主题统一分类，共分析\textit{60}篇论文。